InfoMem: Agentes de Memoria con Ganancia de Información Condicionada a Respuestas
Descubre InfoMem, un mecanismo de recompensa que evalúa la utilidad de la memoria final para mejorar el rendimiento de los LLM en tareas de largo contexto.
#contexto largo
NAtS-L: Búsqueda de Atención Neuronal para Modelos Híbridos por Token
Descubre cómo NAtS-L optimiza transformers combinando atención lineal y softmax por token, reduciendo coste sin perder expresividad en contextos largos.
ParisKV: Recuperación de caché KV rápida y robusta ante deriva para LLMs largos
ParisKV: recuperación de caché KV para LLMs largos, hasta 44x más rápido y robusto ante deriva. Optimiza tu inferencia.
GradMem: Contexto en Memoria con Descenso de Gradiente en Tiempo de Prueba
Optimiza LLMs con GradMem: escribe contexto en memoria mediante descenso de gradiente en tiempo de prueba, reduciendo la necesidad de grandes cachés.
MomentKV: Cerrando la brecha direccional en desalojo de cache KV
MomentKV mejora la eficiencia de inferencia larga cerrando la brecha direccional en el desalojo de cache KV, reduciendo errores y permitiendo mayor compresión.
¿Por qué los modelos de series temporales necesitan ventanas largas?
Descubre por qué las ventanas de contexto largas mejoran la precisión en modelos de series temporales al reducir la incertidumbre sobre el proceso generativo. Ideal para IA y forecasting.
WaveFilter: Filtrado guiado por wavelets para contexto largo en LLMs de difusión
WaveFilter mejora el rendimiento de LLMs de difusión en contexto largo mediante filtrado guiado por wavelets del caché KV.
CoMem: Gestión de Contexto con Modelo de Largo Contexto Desacoplado
Descubre CoMem, un novedoso framework que desacopla la gestión de memoria en agentes de IA para reducir la latencia y mejorar el rendimiento en tareas de largo horizonte.
OBCache: poda óptima de caché KV para LLMs de contexto largo
Descubre OBCache, la técnica de poda de caché KV que optimiza la memoria en LLMs para inferencia en contextos largos sin sacrificar precisión.